Mit der Meta AI App können Sie bizarr persönliche Chats von Leuten „entdecken“

„In welchen Ländern mögen jüngere Frauen ältere weiße Männer?“, heißt es in einer öffentlichen Nachricht eines Nutzers auf Metas KI-Plattform. „Ich brauche Details. Ich bin 66 und Single. Ich komme aus Iowa und bin bereit, in ein anderes Land zu ziehen, wenn ich dort eine jüngere Frau finde.“ Der Chatbot antwortete begeistert: „Du suchst einen Neuanfang und Liebe an einem neuen Ort. Das ist aufregend!“, bevor er „Mittelmeerländer wie Spanien oder Italien oder sogar Länder in Osteuropa“ vorschlug.

Dies ist nur eine von vielen scheinbar persönlichen Unterhaltungen , die öffentlich auf Meta AI einsehbar sind, einer Chatbot-Plattform, die gleichzeitig als Social Feed fungiert und im April gestartet ist . In der Meta AI App zeigt ein „Entdecken“-Tab eine Zeitleiste der Interaktionen anderer Nutzer mit dem Chatbot; ein kurzer Blick auf die Meta AI Website führt zu einer umfangreichen Collage. Während einige der hervorgehobenen Fragen und Antworten harmlos sind – Reiserouten, Rezepttipps –, enthüllen andere Orte, Telefonnummern und andere sensible Informationen, die alle mit Benutzernamen und Profilfotos verknüpft sind.

Calli Schroeder, leitende Rechtsberaterin des Electronic Privacy Information Center, sagte in einem Interview mit WIRED, sie habe Leute gesehen, die „medizinische Informationen, Informationen zur psychischen Gesundheit, Privatadressen und sogar Dinge, die in direktem Zusammenhang mit anhängigen Gerichtsverfahren stehen, weitergegeben haben“.

„All das ist unglaublich beunruhigend, weil es meiner Meinung nach darauf hindeutet, dass die Leute nicht verstehen, was diese Chatbots tun oder wozu sie da sind, und auch nicht, wie der Datenschutz bei diesen Strukturen funktioniert“, sagt Schroeder.

Es ist unklar, ob die Nutzer der App wissen, dass ihre Gespräche mit Metas KI öffentlich sind, oder welche Nutzer die Plattform trollen, nachdem Medien darüber berichtet haben. Die Gespräche sind standardmäßig nicht öffentlich; Nutzer müssen sich entscheiden, sie zu teilen.

Es gibt zahlreiche Gespräche zwischen Nutzern und Metas KI-Chatbot, die offenbar vertraulich sind. Ein Nutzer bat den KI-Chatbot, ein Formular für die Kündigung eines Mietverhältnisses bereitzustellen, ein anderer bat ihn um eine akademische Abmahnung mit persönlichen Daten, darunter dem Namen der Hochschule. Ein weiterer Nutzer erkundigte sich nach der Haftung seiner Schwester für einen möglichen Unternehmenssteuerbetrug in einer bestimmten Stadt und nutzte dafür ein Konto, das mit einem Instagram-Profil verknüpft ist, auf dem Vor- und Nachname angezeigt werden. Jemand anderes bat den Chatbot, eine Charakteraussage für ein Gericht zu erstellen, die ebenfalls eine Vielzahl personenbezogener Daten sowohl über den mutmaßlichen Täter als auch über den Nutzer selbst enthält.

Es gibt auch viele Fälle medizinischer Fragen, darunter Menschen, die über ihre Stuhlprobleme berichten, Hilfe bei Nesselsucht suchen oder sich nach einem Ausschlag an den Innenseiten der Oberschenkel erkundigen. Ein Nutzer berichtete Meta AI von seiner Halsoperation und nannte dabei auch sein Alter und seinen Beruf. Viele, aber nicht alle Accounts scheinen mit einem öffentlichen Instagram-Profil der jeweiligen Person verknüpft zu sein.

Meta-Sprecher Daniel Roberts schrieb in einer E-Mail an WIRED, dass die Chats der Nutzer mit Meta AI privat seien, es sei denn, sie würden sie in einem mehrstufigen Prozess im Discover-Feed teilen. Das Unternehmen antwortete nicht auf Fragen zu den bestehenden Schutzmechanismen für die Weitergabe personenbezogener Daten auf der Meta AI-Plattform.

In einem Blogbeitrag des Unternehmens zur Ankündigung der App erklärte Meta: „Nichts wird in Ihrem Feed geteilt, es sei denn, Sie veröffentlichen es.“ Außerdem wird erwähnt, dass Nutzer die KI anweisen können, sich „bestimmte Dinge über Sie zu merken“ und „relevantere Antworten auf Ihre Fragen zu liefern, indem sie auf Informationen zurückgreift, die Sie bereits für die Freigabe auf Meta-Produkten ausgewählt haben, wie Ihr Profil und Inhalte, die Ihnen gefallen oder mit denen Sie interagieren.“

„Die Leute verstehen nicht wirklich, dass nichts, was man in eine KI eingibt, vertraulich ist“, sagt Schroeder. „Keiner von uns weiß wirklich, wie all diese Informationen verwendet werden. Sicher ist nur, dass sie nicht zwischen Ihnen und der App bleiben. Sie gelangen an andere Personen, zumindest an Meta.“

Nach der Markteinführung der KI-App von Meta wiesen Kritiker schnell auf potenzielle Datenschutzprobleme hin. Eine Schlagzeile sprach von einer „ Datenschutzkatastrophe, die nur darauf wartet, zu passieren“. Trotz dieser Bedenken zeigt das Tempo der Entwicklung und Bereitstellung solcher KI keine Anzeichen einer Verlangsamung, insbesondere bei Meta: CEO Mark Zuckerberg gab kürzlich bekannt, dass der KI-Assistent von Meta auf allen Plattformen des Unternehmens eine Milliarde Benutzer hat. Außerdem wurde berichtet , dass Meta ein neues KI-Labor unter der Leitung von Scale AI-Mitbegründer Alexandr Wang aufbaut, das sich der Entwicklung von Superintelligenz widmet.

„Ist Meta bewusst, wie viele sensible Informationen seine Benutzer fälschlicherweise öffentlich zugänglich machen?“, fragte ein Benutzer Meta AI am Donnerstag in einer Anfrage, die im öffentlichen Feed angezeigt wurde.

„Einige Nutzer geben möglicherweise unbeabsichtigt vertrauliche Informationen weiter, weil sie die Plattformstandards missverstehen oder sich die Einstellungen im Laufe der Zeit ändern“, antwortete der Chatbot. „Meta bietet Tools und Ressourcen, die Nutzern helfen, ihre Privatsphäre zu schützen, aber das ist eine ständige Herausforderung.“